阿布扎比的人工智能与云计算公司 G42最近宣布收购本地网络安全领军企业 CPX。这一战略收购将为 G42的产品组合注入强大的网络安全能力，使其在人工智能价值链中更具竞争力。图源备注:图片由AI生成，图片授权服务商MidjourneyCPX 总部位于阿布扎比，拥有400多名专业人员，致力于为企业、政府及关键基础设施提供网络安全服务。CPX 的丰富经验和专业人才将帮助 G42应对日益复杂的网络安全挑战，为客户以及自身的 AI 平台提供全面保护，确保其数字资产安全。在过去一年中，G42还积极与多家

最近，OpenAI 的 CEO 萨姆・阿尔特曼宣布他将退出公司内部的安全委员会，该委员会自今年五月成立，旨在监督 OpenAI 人工智能模型开发和部署的关键安全与安全决策。阿尔特曼的这一决定引起了广泛关注，他希望将这一角色交给第三方专家，以增强透明度、合作和安全性。随着阿尔特曼的离开，这个安全委员会将转变为一个 “立的监督委员会”，专注于安全和安全问题。新任委员会主席是来自卡内基梅隆大学计算机科学学院的机器学习部门主任齐科・科尔特。他接替了前任主席布雷特・泰

加州立法者通过了旨在确保人工智能安全的SB1047法案，即将由州长加文・纽森签署。该法案要求训练成本超过1亿美元的AI模型在发布前进行安全测试，并在发生事故时设置紧急停止功能。法案还规定发生事故后72小时内向加州检察长报告，并设立“前沿模型局”监督合规性，违规者面临高额罚款。此举旨在预防AI滥用，保障安全，获得AI领域知名人士支持。然而，科技巨头对此反应不一，担忧法案可能抑制创新和导致人才流失，呼吁联邦层面制定法规。该法案如获通过，将成为美国首个同类AI监管法，对全球科技行业监管产生深远影响。

马斯克支持加州SB1047法案，要求大型AI模型开发公司需记录防止模型造成严重危害的安全措施。他强调过去一直倡导AI监管，认为应如同监管有风险的产品和技术。马斯克的公司xAI将受此法案约束，尽管他计划离开加州。与之形成对比，OpenAI公开反对SB1047，支持替代法案。Adobe和微软则支持加州另项新法案AB3211，要求标记AI生成内容。这些动态凸显了科技行业在AI监管方面的分歧，马斯克与OpenAI的立场对立成为焦点。

苹果公司已加入美国政府的自愿AI安全承诺，此举被视为推动AI责任创新的关键一步。白宫发布的承诺包括公开AI能力、标记AI内容等，旨在减少虚假信息和AI技术进步带来的安全隐患。联邦部门已完成AI安全相关行动，目标包括管理风险、引进人才和增强全球AI领导地位。苹果的AI新功能发布面临延迟，原计划在9月系统更新中推出，但现将至少推迟几周。开发者将提前体验苹果的新AI平台Apple Intelligence，该平台整合了ChatGPT，并通过苹果专有技术增强Siri。普通用户需等到几周后才能体验到iOS18.1中的AI新功能。

Meta 发布的 Prompt-Guard-86M 模型旨在防御提示注入攻击，通过限制大型语言模型处理不当输入，保护系统安全。然而，该模型自身也暴露出被攻击的风险。Aman Priyanshu 研究发现，通过在输入中添加空格等简单字符间隔或去除标点符号，模型会忽视先前的安全指令，攻击成功率接近100%。这一发现突显了 AI 安全性的重要性，尽管 Prompt-Guard 只是防线的一部分，但它揭示了企业在使用 AI 时面临的潜在威胁。Meta 正在积极寻找解决方案以增强模型的安全性。

["Anthropic 发布 Claude3 系列，安全性备受关注。","Claude3 在多个领域超越 GPT-4 和 Gemini1.0Ultra。","Claude3 采用 “宪法 AI” 训练技术，注重安全。","Anthropic 获得大笔投资，拟扩展功能和服务。"]

["一些法律专家认为 AI 输出应受到第一修正案的保护","法律专家 Peter Salib 警告称这一观点可能带来严重后果","AI 输出的监管可能面临困难，引发潜在危险","Salib 主张对 AI 输出本身进行规范，以规避风险"]

["研究人员在 Hugging Face AI 平台上发现大约 100 个恶意机器学习模型，可能让攻击者注入恶意代码到用户机器上。","恶意 AI 模型利用 PyTorch 等方法执行恶意代码，加剧安全风险。","AI 开发者应使用新工具如 Huntr 提高 AI 模型安全性。","发现的恶意模型突显恶意 AI 模型对用户环境带来的风险，需要持续警惕和加强安全性。"]

["OpenAI 制定了应对 AI 可能带来的严重危险的计划","框架包括风险记分卡、评估和预测潜在危害","雇佣专家团队监测技术并警告危险","招聘国家安全专家以应对重大风险","允许独立第三方测试其技术"]

[" 李飞飞新书《我看到的世界》正式发售，忧心斯坦福没有训练 ChatGPT 算力，自称不是 AI 毁灭派。"," 李飞飞不是开源派，也不是毁灭派，而是中间派，希望人类能与人工智能和平共处。"," 李飞飞对 AI 的潜力和危害有清晰的认识，主张肌肉型政府监管。"," 李飞飞主张以人本主义的方式对待 AI，并倡导肌肉型政府监管。"," 李飞飞支持建立监管框架和规范，但并不呼吁暂停一切活动。"]